Vào ngày 29 tháng 9 năm 1978, sau 33 ngày trong chức vụ giáo hoàng, Giáo hoàng Gioan Phaolô I qua đời, trong trạng thái còn nằm trên giường, với một cuốn sách mở ra bên cạnh ông, và đèn đọc sách vẫn còn sáng. Theo một bác sĩ của Vatican, có lẽ ông đã chết khoảng 23 giờ [...] do một cơn đau tim "xảy ra vào ngày 28 tháng 9".[20]

Theo thông tin chính thức từ Vatican thì cái chết của Giáo hoàng Gioan Phaolô I đã được phát hiện bởi Đức ông John Magee, thư ký người Ái Nhĩ Lan của Giáo hoàng. Giáo hoàng đã qua đời khi đang đọc cuốn "Noi gương Chúa Giêsu" của Thomas Kempis thế kỷ XV. Tuy nhiên, theo một số nguồn khác thì cái chết của ngài được phát hiện bởi sơ Vincenzina[21]. Cuộc kiểm tra của bác sĩ Reneto Buzzonetti về cái chết của Giáo hoàng bị một số người cho là vội vã. Thông cáo của Tòa thánh cho rằng ngài đã chết vì một cơn đau tim nhưng những người thân và bạn hữu của ngài lại cho rằng nguyên nhân thật sự của cái chết có thể là do tắc động mạch phổi[22]. Ngài đã được an nghỉ trong phần mộ bên dưới Vương cung thánh đường Thánh Phêrô ở Rôma.

Lễ tang của Gioan Phaolô I được tổ chức tại Quảng trường Thánh Phêrô vào ngày 4 tháng 10 năm 1978, do Hồng y Carlo Confalonieri cử hành. Trong diễn văn ca ngợi về vị giáo hoàng quá cố, Hồng y này mô tả Gioan Phaolô I như một sao chổi nhấp nháy, làm tỏa sáng Giáo hội Công giáo.

Trước đó, khoảng 10 giờ tối vào đêm ông qua đời, Giáo hoàng đã biết rằng một số tân thành viên phát xít trẻ tuổi đã bắn một nhóm thanh thiếu niên đọc tờ L'Unità, tờ báo Cộng sản, bên ngoài một văn phòng của Đảng này tại Rome. Một cậu bé đã bị giết trong khi một người khác bị thương nghiêm trọng. Đức giáo hoàng than thở với John Magee, "Ngay cả những đứa trẻ cũng đang giết nhau." Giáo hoàng này sau đó đã đi nghỉ ngơi để đọc quyển sách Noi gương Chúa Kitô trên giường.[23]

Có một vài thuyết âm mưu liên quan đến cái chết của ông.